World Model-Guided Reinforcement Learning via Counterfactual User Engagement Simulation
世界模型引导的反事实用户参与模拟强化学习
🧭 世界模型反事实用户模拟 · 推荐策略 RL ★ 深度解读
The Chinese University of Hong Kong · Zhejiang University · ByteDance China · MoE Key Lab of High Confidence Software Technologies, CUHK
用冻结 LLM 用户参与世界模型并行预测多候选 item 的异质反馈，转化为奖励训练 1.7B 推荐策略，跨域匹配或超过更大 LLM。
📌 工作参考价值（4 点）
- 把用户反馈模拟器当作离线 RL 奖励源：对同一 history 采样 G 个候选 item，让 UEWM 并行预测反馈，构造 same-state 反事实比较；这比从 logs 学 policy 或 SFT distillation 更符合策略梯度对「同状态多动作」的需求。
- 多信号反馈向量化 + 权重映射奖励：将点赞、分享、差评、评分、评论文本统一向量化，再用权重向量映射为标量 reward；在电商场景可以把点击、加购、收藏、评论情感按业务目标加权，而不是只看点击率。
- 小模型策略优化可落地：用 8B 模拟器奖励训练 1.7B 学生模型，在 Amazon Books/Movies 和 Google Local 上超过 SFT蒸馏和 DeepSeek-GRM 奖励，说明可低成本获得接近大模型的推荐策略，适合粗排/召回级小模型精调。
- 跨域迁移的边界要清楚：UEWM 从中文短视频迁移到英文电商/本地生活做评分/评论预测有效，说明学到的是「从历史推断用户动态」的通用过程；但它是纯文本、只建模用户侧动态，缺少视觉/价格/库存/平台侧约束，接入业务时需补齐多模态与曝光分配机制。